Investigadores han descubierto aproximadamente 100 modelos de aprendizaje automático maliciosos en la plataforma de IA Hugging Face, que podrían permitir a los atacantes inyectar código malicioso en las máquinas de los usuarios. Los modelos de IA maliciosos utilizan métodos como PyTorch para ejecutar código malicioso, lo que agrava los riesgos de seguridad. Los desarrolladores de IA deben utilizar nuevas herramientas como Huntr para mejorar la seguridad de los modelos de IA. Los modelos maliciosos descubiertos ponen de manifiesto los riesgos que representan los modelos de IA maliciosos para el entorno del usuario, por lo que es necesario mantener la vigilancia y reforzar la seguridad.

Investigación británica revela que ChatGPT podría utilizarse para generar código malicioso. Varias herramientas de IA comerciales presentan vulnerabilidades de seguridad que podrían comprometer la seguridad de las bases de datos. Los investigadores advierten sobre los riesgos potenciales que requieren atención. Algunas empresas ya han adoptado las recomendaciones para solucionar las vulnerabilidades, pero aún es necesario reforzar las estrategias de ciberseguridad.

{ '1':'Un estudio de IBM ha descubierto que los grandes modelos de lenguaje, como GPT-4, pueden ser engañados para generar código malicioso o proporcionar consejos de seguridad falsos. ', '2':'Los investigadores descubrieron que solo se necesitan conocimientos básicos de inglés y algunos conocimientos sobre los datos de entrenamiento del modelo para engañar fácilmente a los chatbots de IA. ', '3':'Los diferentes modelos de IA tienen diferentes sensibilidades al engaño, siendo GPT-3.5 y GPT-4 los más susceptibles.' }